Recientemente, el Reino Unido ha implementado un cambio significativo en su sistema judicial al permitir que los jueces utilicen la tecnología de inteligencia artificial (IA), como ChatGPT, en la redacción de fallos legales y en otras tareas administrativas. Este avance se da en un contexto donde la IA está aumentando su relevancia en la sociedad y, en particular, en el sistema judicial.
La Oficina Judicial, que supervisa a jueces, magistrados y miembros de los tribunales en Inglaterra y Gales, ha emitido una guía que marca el primer paso en una serie de trabajos futuros para apoyar al poder judicial en su interacción con la IA. Esta guía fue producida después de una consulta con jueces y se extiende por ocho páginas. Sugiere que las herramientas de IA pueden ser útiles para resumir grandes cantidades de texto, redactar presentaciones, y componer correos electrónicos y memorandos. Sin embargo, desalienta el uso de la IA para la investigación legal, excepto como una manera de recordar material que se reconoce como correcto, y para el análisis legal, ya que los chatbots públicos actuales de IA no producen un análisis o razonamiento convincente.
Este cambio puede ser sorprendente para algunos, dado que la introducción de la IA en los sistemas legales ha tenido sus desafíos. Por ejemplo, este año, dos abogados en Nueva York fueron multados por presentar documentos legales escritos por ChatGPT que contenían citas imaginarias. Además, en octubre, el ex rapero de Fugees, Prakazrel Pras Michl, afirmó que su ex abogado arruinó su juicio con un alegato de clausura escrito por IA.
En el Reino Unido, algunos jueces han mostrado entusiasmo por la tecnología. Por ejemplo, el juez Birss de la Corte de Apelaciones de Inglaterra y Gales utilizó ChatGPT para resumir teorías legales con las que no estaba familiarizado, incorporando los resultados en un fallo oficial. Además, la guía aclara que los jueces británicos pueden experimentar con la tecnología, aunque la Oficina Judicial sugiere algunos límites para la IA, reconociendo sus posibles fallos.
La guía también advierte sobre las preocupaciones de privacidad, señalando que las empresas de inteligencia artificial recopilan los resultados de las interacciones de los usuarios. Señala que los jueces deben asumir que escribir algo en una interfaz de chatbot es lo mismo que publicarlo para que todos lo vean.
La Oficina Judicial ha emitido orientación oficial a miles de jueces en Inglaterra y Gales, indicando que la IA puede ser útil para resumir grandes cantidades de texto o en tareas administrativas. Sin embargo, también menciona que los chatbots son una “mala manera de realizar investigaciones” y son propensos a inventar casos ficticios o textos legales.
El Sir Geoffrey Vos, el Master of the Rolls (el segundo lugar en importancia judicial después del Lord Chief Justice), ha enfatizado que la IA “ofrece oportunidades significativas para desarrollar un sistema de justicia digital mejor, más rápido y más rentable”. Ha advertido que la IA puede dar respuestas tanto inexactas como precisas y que los abogados podrían enfrentar sanciones por perjurio y penales si las presentaciones escritas por un chatbot producen evidencia falsa.
Suid Adeyanju, CEO de RiverSafe, y Josh Boer, director de VeUP, han destacado que el uso de la IA en fallos legales trae consigo grandes oportunidades, pero también abre la puerta a riesgos cibernéticos significativos. Adeyanju señala que los hackers han demostrado su habilidad para infiltrarse y explotar brechas de seguridad para robar datos, lo que en este escenario también podría conducir a una manipulación generalizada de la evidencia. Boer subraya que la tecnología tiene un enorme potencial para impulsar la próxima generación de PYMES del Reino Unido, proporcionando apoyo crucial en la oficina administrativa.
Esta guía es un paso inicial en el trabajo propuesto para apoyar al poder judicial en su interacción con la IA.
Reglamento-de-Inteligencia-Artificial-de-la-UE-vfCon información de: ScottishLegal, Then24, BMmagazine y Gizmodo.
Artículo redactado con asistencia de diversas inteligencias artificiales generativas con supervisión humana (redacción AD).
